语义分割是医学图像计算中最受欢迎的研究领域之一。也许令人惊讶的是，尽管它可以追溯到2018年，但NNU-NET仍在为各种细分问题提供竞争性的开箱即用解决方案，并定期用作挑战挑战算法的开发框架。在这里，我们使用NNU-NET参与AMOS2022挑战，该挑战带有一套独特的任务：数据集不仅是有史以来最大的最大的数据集，而且拥有15个目标结构，而且竞争还需要提交的解决方案来处理这两种MRI和CT扫描。通过仔细修改NNU-NET的超参数，在编码器中添加剩余连接以及设计自定义后处理策略，我们能够实质上改进NNU-NET基线。我们的最终合奏在任务1（CT）的骰子得分为90.13，而任务2（CT+MRI）的骰子得分为89.06，在提供的培训案例中进行了5倍的交叉验证。
translated by 谷歌翻译
Learned classifiers should often possess certain invariance properties meant to encourage fairness, robustness, or out-of-distribution generalization. However, multiple recent works empirically demonstrate that common invariance-inducing regularizers are ineffective in the over-parameterized regime, in which classifiers perfectly fit (i.e. interpolate) the training data. This suggests that the phenomenon of ``benign overfitting," in which models generalize well despite interpolating, might not favorably extend to settings in which robustness or fairness are desirable. In this work we provide a theoretical justification for these observations. We prove that -- even in the simplest of settings -- any interpolating learning rule (with arbitrarily small margin) will not satisfy these invariance properties. We then propose and analyze an algorithm that -- in the same setting -- successfully learns a non-interpolating classifier that is provably invariant. We validate our theoretical observations on simulated data and the Waterbirds dataset.
translated by 谷歌翻译
This paper presents miCSE, a mutual information-based Contrastive learning framework that significantly advances the state-of-the-art in few-shot sentence embedding. The proposed approach imposes alignment between the attention pattern of different views during contrastive learning. Learning sentence embeddings with miCSE entails enforcing the syntactic consistency across augmented views for every single sentence, making contrastive self-supervised learning more sample efficient. As a result, the proposed approach shows strong performance in the few-shot learning domain. While it achieves superior results compared to state-of-the-art methods on multiple benchmarks in few-shot learning, it is comparable in the full-shot scenario. The proposed approach is conceptually simple, easy to implement and optimize, yet empirically powerful. This study opens up avenues for efficient self-supervised learning methods that are more robust than current contrastive methods for sentence embedding.
translated by 谷歌翻译
生成高度详细的复杂数据是机器学习领域中的长期存在且经常考虑的问题。但是，开发细节感知的发电机仍然是一个具有挑战性和开放的问题。生成对抗网络是许多最新方法的基础。但是，他们引入了第二个网络作为损失函数训练，使对学习功能的解释变得更加困难。作为替代方案，我们提出了一种基于小波损耗公式的新方法，该方法在优化方面保持透明。在生成具有高频细节的数据时，基于小波的损耗函数用于克服常规距离指标（例如L1或L2距离）的局限性。我们表明，我们的方法可以在说明性合成测试案例中成功重建高频细节。此外，我们根据物理模拟应用于更复杂的表面时评估性能。以大致近似的模拟为输入，我们的方法在考虑它们的发展方式的同时进化了相应的空间细节。我们考虑了这个问题，从空间和时间频率方面，并利用训练有我们的小波损失的生成网络来学习表面动力学的所需时空信号。我们通过一组合成波函数测试以及弹性塑料材料的复杂2D和3D动力学测试方法的功能。
translated by 谷歌翻译
磁共振成像（MRI）是中风成像的中心方式。它被用来接受患者的治疗决定，例如选择患者进行静脉溶栓或血管内治疗。随后在住院期间使用MRI来通过可视化梗塞核心大小和位置来预测结果。此外，它可以用来表征中风病因，例如（心脏） - 栓塞和非胚胎中风之间的区分。基于计算机的自动医疗图像处理越来越多地进入临床常规。缺血性中风病变分割（ISLE）挑战的先前迭代有助于生成鉴定急性和急性缺血性中风病变分割的基准方法。在这里，我们介绍了一个专家注册的多中心MRI数据集，以分割急性到亚急性中风病变。该数据集包括400个多供应商MRI案例，中风病变大小，数量和位置的可变性很高。它分为n = 250的训练数据集和n = 150的测试数据集。所有培训数据将公开可用。测试数据集将仅用于模型验证，并且不会向公众发布。该数据集是Isles 2022挑战的基础，目的是找到算法方法，以实现缺血性中风的稳健和准确分割算法的开发和基准测试。
translated by 谷歌翻译
基于稀疏性的方法在信号处理领域具有悠久的历史，并已成功应用于各种图像重建问题。相关的稀疏转换或词典通常使用模型进行预训练，该模型反映了信号的假定特性，或者在重建过程中自适应地学习 - 产生所谓的盲人压缩传感方法。但是，通过这样做，将永远不会与生成信号的物理模型一起明确训练。此外，正确选择所涉及的正则化参数仍然是一项具有挑战性的任务。正规化方法的另一个最近出现的训练范式是使用迭代神经网络（INNS）（也称为展开网络），其中包含物理模型。在这项工作中，我们构建了一个可以用作有监督和物理知识的在线卷积词典学习算法的旅馆。我们通过将其应用于现实的大规模动态MR重建问题来评估所提出的方法，并将其与其他最近发表的作品进行了比较。我们表明，与Deep Inn相比，拟议的旅馆改进了两种常规的模型不足训练方法，并产生竞争成果。此外，它不需要选择正则化参数，并且与深度旅馆形成鲜明对比 - 每个网络组件都是完全可以解释的。
translated by 谷歌翻译
我们提供了PelficGridWorld软件包，为用户提供轻量级，模块化和可定制的框架，用于创建专注的电源系统的多代理体育馆环境，该环境易于与强化学习（RL）的现有培训框架集成。虽然存在许多框架用于训练多代理RL（MARL）政策，但没有可以快速原型并发开发环境，尤其是在所需电流解决方案来定义网格的异构（复合式，多器件）电力系统的背景下 - 级别变量和成本。 PowerGridWorld是一个开源软件包，有助于填补此间隙。为了突出PowerGridWorld的关键功能，我们展示了两个案例研究，并使用Openai的多代理深度确定性政策梯度（MADDPG）和RLLIB的近端策略优化（PPO）算法来演示MARL政策。在这两种情况下，至少一些代理子集合在每次作为奖励（负成本）结构的一部分中的一部分中的功率流溶液的元件。
translated by 谷歌翻译
2021-04-27
图像分类模型可以取决于图像的多个不同语义属性。对分类器的决定的说明需要对这些属性进行发现和可视化这些属性。在这里，我们通过训练生成模型来具体解释基于分类器决策的多个属性来实现这一点的样式x。此类属性的自然来源是样式语的风格，已知在图像中生成语义有意义的维度。但是，由于标准GaN训练不依赖于分类器，所以它可能不代表对分类器决定很重要的这些属性，并且风格的尺寸可以表示无关属性。为了克服这一点，我们提出了一种培训程序，该培训程序包括分类器模型，以便学习特定于分类器的风格。然后从该空间中选择解释性属性。这些可用于可视化每个图像改变多个属性的效果，从而提供特定于图像的解释。我们将风格x应用于多个域，包括动物，叶子，面和视网膜图像。为此，我们展示了如何以不同方式修改图像以改变其分类器输出。我们的结果表明，该方法发现与语义上保持良好的属性，生成有意义的图像特定的解释，并且是在用户研究中测量的人为解释。
translated by 谷歌翻译
域名（ood）概括是机器学习模型的重大挑战。已经提出了许多技术来克服这一挑战，通常专注于具有某些不变性属性的学习模型。在这项工作中，我们绘制了ood性能和模型校准之间的链接，争论跨多个域的校准可以被视为一个特殊的表达，导致更好的EOD泛化。具体而言，我们表明，在某些条件下，实现\ EMPH {多域校准}的模型可被证明无杂散相关性。这导致我们提出多域校准作为分类器的性能的可测量和可训练的代理。因此，我们介绍了易于申请的方法，并允许从业者通过训练或修改现有模型来改善多域校准，从而更好地在看不见的域上的性能。使用最近提出的野外的四个数据集以及彩色的MNIST数据集，我们证明了训练或调整模型，以便在多个域中校准它们导致在看不见的测试域中显着提高性能。我们认为，校准和革建化之间的这种有趣联系是从一个实际和理论的观点出发的。
translated by 谷歌翻译